Izvršni direktor Mete poručio je da kompanije koje razvijaju AI već imaju dovoljno razloga da bezbednost stave u prvi plan – od međusobne konkurencije do mogućih pravnih i finansijskih posledica ukoliko njihovi modeli naprave štetu. Njegov stav dolazi u trenutku kada se među vodećim AI kompanijama vodi sve intenzivnija debata o tome koliko brzo tehnologija treba da napreduje.
Zakerberg: Svaka kompanija može sama da reaguje
Zakerberg je naveo da svaka AI laboratorija ima odgovornost, ali i interes da svoje modele razvija tempom koji omogućava adekvatnu bezbednost.
Njegova poruka predstavlja drugačiji pristup od onog koji je prethodnih dana izneo Dario Amodei, izvršni direktor kompanije Anthropic. Amodei je pozvao AI kompanije da uspore razvoj novih modela kako bi bezbednosne mere imale više vremena da sustignu njihove sve brže sposobnosti. Njegov poziv podržali su Sam Altman iz OpenAI-ja i Elon Mask iz xAI-ja.
Zakerberg, međutim, smatra da nije neophodno da čitava industrija istovremeno uspori.
„Svaka laboratorija ima odgovornost i podsticaj da se kreće tempom koji je potreban da bi bezbedno trenirala svoje modele“, poručio je Zakerberg.
Dodao je i da bi kompanija koja zanemari usklađivanje i bezbednost svojih modela mogla da zaostane za konkurencijom, jer će poverenje korisnika postajati sve važnije.
Meta je odložila jedan AI proizvod zbog bezbednosti
Kao primer sopstvenog pristupa, Zakerberg je naveo odluku Mete da odloži lansiranje svog Muse AI agenta ranije ove godine kako bi kompanija dodatno radila na bezbednosti.
Prema njegovim rečima, Meta nije čekala da druge kompanije učine isto niti je od njih tražila da uspore razvoj. Kompanija je, kako tvrdi, sama donela odluku da odloži proizvod kada je procenila da je potrebno dodatno unaprediti njegovu bezbednost.
Meta je još u aprilu predstavila ažurirani okvir za testiranje svojih naprednih AI sistema, koji obuhvata procenu ozbiljnih rizika, uključujući sajber bezbednost, biološke i hemijske rizike, kao i rizike povezane sa mogućim gubitkom kontrole nad sistemima.
Gde je granica između trke i bezbednosti?
Jedno od ključnih pitanja u aktuelnoj debati jeste razvoj takozvanog rekurzivnog samounapređivanja – scenarija u kojem AI sistemi mogu sve više da unapređuju sopstvene sposobnosti.
Amodei je upravo zbog toga pozvao industriju na sporiji razvoj. Zakerberg, s druge strane, tvrdi da Meta većinu svojih računarskih kapaciteta usmerava na proizvode namenjene neposrednim potrebama korisnika, a ne na razvoj sistema koji bi prvenstveno služili za samounapređivanje AI-ja.
Meta takođe angažuje nezavisne evaluatore za procenu svojih AI sistema. Zakerberg takve provere opisuje kao dobru praksu koju bi, prema njegovom stavu, mogle da primenjuju i druge kompanije.
Debata više nije samo tehnološka
Rasprava o brzini razvoja AI-ja sve više prelazi granice samih tehnoloških kompanija.
Dok pojedini lideri industrije traže sporiji razvoj i više vremena za bezbednosne provere, drugi upozoravaju da bi prevelika ograničenja mogla oslabiti konkurentnost američkih kompanija, posebno u odnosu na Kinu. Sličan argument izneo je i izvršni direktor Nvidije Jensen Huang.
Dodatnu komplikaciju predstavlja pitanje saradnje između konkurentskih kompanija. Amodei je tražio mogućnost koordinacije AI kompanija kako bi mogle zajednički da uspore razvoj zbog bezbednosnih rizika. Istovremeno, predsednik američke Federalne trgovinske komisije Andrew Ferguson izrazio je sumnju prema zahtevima AI kompanija za antimonopolske izuzetke.
Zbog toga se trenutno ne vodi samo rasprava o tome koliko brzo AI treba da napreduje, već i o tome ko treba da postavlja granice – same kompanije, regulatorna tela ili širi dogovor unutar industrije.
Za sada, među vodećim AI kompanijama ne postoji jedinstven stav. Dok Amodei poziva na usporavanje, Zakerberg smatra da kompanije imaju dovoljno motiva da bezbednost rešavaju kroz sopstvene procese i odgovornost.
